欧洲刑警组织警告：ChatGPT或被用来实施犯罪

据路透社3月27日报道，欧洲刑警组织警告称，智能聊天工具ChatGPT可能被用于网络诈骗、传播虚假信息和网络犯罪。

图源：路透社

欧洲刑警组织列出了ChatGPT在三个犯罪领域的潜在有害使用方式：

1

ChatGPT能够生成高度拟真的文本，能使其成为网络诈骗的有效工具。由于其能够复制语言模式，以模仿特定个人或群体的发言风格，犯罪分子可能针对受害者时会加以利用。

2

ChatGPT还能够快速大规模地生成看起来很逼真的文本，“允许使用者耗费相对较少的精力，就能生成和传播反映特定叙事的信息”，而这个特点也使其成为在互联网上散布虚假信息的理想工具。

3

即使缺乏技术知识的犯罪分子也可能会利用ChatGPT来编写恶意代码，从事网络犯罪活动。

由此可见，以ChatGPT为代表的深度合成和生成式AI技术在为数字经济发展带来新机遇的同时，也带来了令人担忧的巨大风险。有效治理深度合成和生成式AI技术需技术与立法齐头并进。
治理：立法规范
2023年1月，国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》正式施行（以下简称《规定》）。《规定》通过系统性、创新性制度设计，首次回应了对深度合成服务的管理要求，为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。
图源：网信中国治理：“慧眼”鉴真阻止AI滥用，防止AI作恶，也需发挥技术能力，用“魔法”打败“魔法”。作为国内电子数据取证行业龙头和公共安全大数据领先企业、网络空间安全与社会治理领域国家队，美亚柏科2017年成立AI研发中心，深度开展人工智能技术研究。为了应对利用人工智能技术可能带来的安全问题，2019年针对深度合成技术又特别成立专项研究团队（下称“专项团队”）。
专项团队通过对深度合成和生成式AI技术的深入研究以及在人工智能安全方向的经验积累，自主研发深度伪造视频图像检测鉴定的核心引擎，打造出一系列视频图像检测鉴定的一体化智能装备“AI-3300慧眼视频图像鉴真工作站”等。

AI-3300"慧眼"视频图像鉴真工作站是一款以人工智能技术为核心的视频图像检验鉴定设备，配备了美亚柏科人工智能团队自主研发的核心AI智能检测引擎，支持当前绝大部分深伪视频图像篡改方法的检测，检测精度处于国内领先水平。

“慧眼”涵盖40余种视频图像真伪鉴定算法，近10种深伪鉴定算法，同时具有智能鉴定和专业鉴定两种鉴定模式，支持卷宗管理和三种鉴定文书生成，为司法鉴定人员提供一站式视频图像检验鉴定服务。

“慧眼”不仅对利用传统伪造手段篡改的影像能生成理想的鉴定效果，而且对利用深度伪造技术进行换脸、美颜、生成人脸、同图或异图复制篡改的影像具有十余种理想的鉴定效果。

"慧眼"视频图像鉴真工作站在深伪检验鉴定中处于国际领先水平，可为公安、司法行业及相关领域的技术人员和影像鉴定人员提供一站式影像真伪检验鉴定解决方案。

如您想详细了解更多AI-3300"慧眼"视频图像鉴真工作站产品信息，欢迎联系美亚柏科当地销售or拨打技术支持热线400-888-6688。未来，美亚柏科将继续聚焦生成式人工智能和AI生成内容的检测识别技术，踔厉奋发，持续发力，针对深度合成文本、视频、图像的检测鉴定技术、生成式AI技术、人工智能安全取证技术等方面的应用需求，不断打磨推出更为安全、可信、可靠的人工智能技术产品，迎接新挑战，为维护和保障人工智能的安全发展贡献力量！

部分素材来源：环球时报 路透社

编辑：蓝雅琦

校对：林阳艳

审核：李银河

——— 近期热点 ———

热文

热文

国内首创！出神入化，一“剑”双雕——美亚柏科发布神剑·双网双平板一体机

热文

热文